<html>
 <head>
  <meta charset="utf-8"/>
  <meta content="width=device-width, initial-scale=1, maximum-scale=1, user-scalable=no" name="viewport"/>
  <title>
   JinZhihui: LDA-math-认识Beta/Dirichlet分布  | 数螺 | NAUT IDEA
  </title>
  <link href="http://cdn.bootcss.com/bootstrap/3.3.6/css/bootstrap-theme.min.css" rel="stylesheet"/>
  <link href="http://cdn.bootcss.com/bootstrap/3.3.6/css/bootstrap.min.css" rel="stylesheet"/>
  <style type="text/css">
   #xmain img {
                  max-width: 100%;
                  display: block;
                  margin-top: 10px;
                  margin-bottom: 10px;
                }

                #xmain p {
                    line-height:150%;
                    font-size: 16px;
                    margin-top: 20px;
                }

                #xmain h2 {
                    font-size: 24px;
                }

                #xmain h3 {
                    font-size: 20px;
                }

                #xmain h4 {
                    font-size: 18px;
                }


                .header {
	           background-color: #0099ff;
	           color: #ffffff;
	           margin-bottom: 20px;
	        }

	        .header p {
                  margin: 0px;
                  padding: 10px 0;
                  display: inline-block;  
                  vertical-align: middle;
                  font-size: 16px;
               }

               .header a {
                 color: white;
               }

              .header img {
                 height: 25px;
              }
  </style>
  <script src="http://cdn.bootcss.com/jquery/3.0.0/jquery.min.js">
  </script>
  <script src="http://cdn.mathjax.org/mathjax/latest/MathJax.js?config=TeX-AMS-MML_HTMLorMML" type="text/javascript">
   MathJax.Hub.Config({
          tex2jax: {inlineMath: [['$','$'], ['\\(','\\)']]},
          TeX: {equationNumbers: {autoNumber: "AMS"}}
        });
  </script>
  <script src="http://nautstatic-10007657.file.myqcloud.com/static/css/readability.min.js" type="text/javascript">
  </script>
  <script type="text/javascript">
   $(document).ready(function() {
                 var loc = document.location;
                 var uri = {
                  spec: "http://cos.name/2013/01/lda-math-beta-dirichlet/",
                  host: "http://cos.name",
                  prePath: "http://cos.name",
                  scheme: "http",
                  pathBase: "http://cos.name/"
                 };
    
                 var documentClone = document.cloneNode(true);
                 var article = new Readability(uri, documentClone).parse();
     
                 document.getElementById("xmain").innerHTML = article.content;
                });
  </script>
  <!-- 1466441848: Accept with keywords: (title(0.4):中国,统计学,服务平台,分布,门户网站, topn(0.5):概率,概率分布,均匀分布,个数,统计学,分布,变星,过程,后验,游戏,实数,魔盒,数学,随机数,文章,二项分布,参数,数据,式子,魔鬼,函数,计数,先验,区间,随机变量,顺序,次数,小节,共轭,物理).-->
 </head>
 <body class="single single-post postid-6953 single-format-standard sidebar" onload="">
  <div class="header">
   <div class="container">
    <div class="row">
     <div class="col-xs-6 col-sm-6 text-left">
      <a href="/databee">
       <img src="http://nautidea-10007657.cos.myqcloud.com/logo_white.png"/>
      </a>
      <a href="/databee">
       <p>
        数螺
       </p>
      </a>
     </div>
     <div class="hidden-xs col-sm-6 text-right">
      <p>
       致力于数据科学的推广和知识传播
      </p>
     </div>
    </div>
   </div>
  </div>
  <div class="container text-center">
   <h1>
    JinZhihui: LDA-math-认识Beta/Dirichlet分布
   </h1>
  </div>
  <div class="container" id="xmain">
   <div class="hfeed site" id="page">
    <header class="site-header" id="masthead" role="banner">
     <div id="cos-logo">
      <a href="http://cos.name/">
       <img src="http://cos.name/wp-content/themes/COS-kermesinus/images/headers/cos-logo.png"/>
      </a>
     </div>
     <div class="navbar" id="navbar">
      <nav class="navigation main-navigation" id="site-navigation" role="navigation">
       <h3 class="menu-toggle">
        菜单
       </h3>
       <a class="screen-reader-text skip-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/#content" title="跳至内容">
        跳至内容
       </a>
       <div class="menu-%e6%88%91%e7%9a%84%e8%8f%9c%e5%8d%95-container">
        <ul class="nav-menu" id="menu-%e6%88%91%e7%9a%84%e8%8f%9c%e5%8d%95">
         <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-home menu-item-4746" id="menu-item-4746">
          <a href="http://cos.name">
           主页
          </a>
         </li>
         <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-has-children menu-item-8120" id="menu-item-8120">
          <a href="http://cos.name/cn">
           论坛
          </a>
          <ul class="sub-menu">
           <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-8124" id="menu-item-8124">
            <a href="http://cos.name/cn/wp-login.php?action=register">
             论坛注册
            </a>
           </li>
           <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-8125" id="menu-item-8125">
            <a href="http://cos.name/cn/wp-login.php">
             论坛登录
            </a>
           </li>
          </ul>
         </li>
         <li class="menu-item menu-item-type-post_type menu-item-object-page menu-item-8110" id="menu-item-8110">
          <a href="http://cos.name/books/">
           图书资料
          </a>
         </li>
         <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-8112" id="menu-item-8112">
          <a href="http://cos.name/videos">
           视频教程
          </a>
         </li>
         <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-8333" id="menu-item-8333">
          <a href="http://cos.name/salon/">
           统计沙龙
          </a>
         </li>
         <li class="menu-item menu-item-type-post_type menu-item-object-page menu-item-8111" id="menu-item-8111">
          <a href="http://cos.name/chinar/">
           R语言会议
          </a>
         </li>
         <li class="menu-item menu-item-type-post_type menu-item-object-page menu-item-8109" id="menu-item-8109">
          <a href="http://cos.name/training/">
           讲座与培训
          </a>
         </li>
         <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-8115" id="menu-item-8115">
          <a href="http://cos.name/cn/forum/comprehensive/job/">
           招聘信息
          </a>
         </li>
         <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-has-children menu-item-4780" id="menu-item-4780">
          <a href="http://cos.name/about">
           关于我们
          </a>
          <ul class="sub-menu">
           <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-8113" id="menu-item-8113">
            <a href="http://cos.name/2008/11/how-to-work-with-cos/">
             加入我们
            </a>
           </li>
           <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-8119" id="menu-item-8119">
            <a href="http://cos.name/donate/">
             赞助我们
            </a>
           </li>
           <li class="menu-item menu-item-type-custom menu-item-object-custom menu-item-8114" id="menu-item-8114">
            <a href="http://cos.name/cn/forum/26">
             项目合作
            </a>
           </li>
          </ul>
         </li>
        </ul>
       </div>
       <form action="http://cos.name/" class="search-form" method="get" role="search">
        <label>
         <span class="screen-reader-text">
          搜索：
         </span>
        </label>
       </form>
      </nav>
      <!-- #site-navigation -->
     </div>
     <!-- #navbar -->
    </header>
    <!-- #masthead -->
    <div class="site-main" id="main">
     <div class="content-area" id="primary">
      <div class="site-content" id="content" role="main">
       <article class="post-6953 post type-post status-publish format-standard hentry category-math category-probability tag-beta-binomial tag-beta tag-dirichlet-multinomial tag-dirichlet" id="post-6953">
        <header class="entry-header">
         <h1 class="entry-title">
          LDA-math-认识Beta/Dirichlet分布
         </h1>
         <div class="entry-meta">
          <span class="date">
           <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/" rel="bookmark" title="链向LDA-math-认识Beta/Dirichlet分布的固定链接">
            <time class="entry-date" datetime="2013-01-14T23:54:35+00:00">
             2013/01/14
            </time>
           </a>
          </span>
          <span class="categories-links">
           <a href="http://cos.name/category/math/" rel="category tag">
            数学方法
           </a>
           、
           <a href="http://cos.name/category/math/probability/" rel="category tag">
            概率论
           </a>
          </span>
          <span class="tags-links">
           <a href="http://cos.name/tag/beta-binomial%e5%85%b1%e8%bd%ad/" rel="tag">
            Beta-Binomial共轭
           </a>
           、
           <a href="http://cos.name/tag/beta%e5%88%86%e5%b8%83/" rel="tag">
            Beta分布
           </a>
           、
           <a href="http://cos.name/tag/dirichlet-multinomial%e5%85%b1%e8%bd%ad/" rel="tag">
            Dirichlet-Multinomial共轭
           </a>
           、
           <a href="http://cos.name/tag/dirichlet%e5%88%86%e5%b8%83/" rel="tag">
            Dirichlet分布
           </a>
          </span>
          <span class="author vcard">
           <a class="url fn n" href="http://cos.name/author/rickjin/" rel="author" title="查看所有由rickjin发布的文章">
            rickjin
           </a>
          </span>
         </div>
         <!-- .entry-meta -->
        </header>
        <!-- .entry-header -->
        <div class="entry-content">
         <p>
          <strong>
           2. 认识Beta/Dirichlet分布
          </strong>
          <br/>
          <strong>
           2.1 魔鬼的游戏—认识Beta 分布
          </strong>
         </p>
         <p>
          统计学就是猜测上帝的游戏,当然我们不总是有机会猜测上帝，运气不好的时候就得揣度魔鬼的心思。有一天你被魔鬼撒旦抓走了，撒旦说：“你们人类很聪明，而我是很仁慈的，和你玩一个游戏，赢了就可以走，否则把灵魂出卖给我。游戏的规则很简单，我有一个魔盒，上面有一个按钮，你每按一下按钮，就均匀的输出一个[0,1]之间的随机数，我现在按10下，我手上有10个数，你猜第7大的数是什么，偏离不超过0.01就算对。”你应该怎么猜呢？
         </p>
         <p>
          从数学的角度抽象一下，上面这个游戏其实是在说随机变量$X_1,X_2,\cdots,X_n {\stackrel{\mathrm{iid}}{\sim}} Uniform(0,1)$，把这$n$ 个随机变量排序后得到顺序统计量 $X_{(1)},X_{(2)}，\cdots, X_{(n)}$, 然后问 $X_{(k)}$ 的分布是什么。
          <span id="more-6953">
          </span>
         </p>
         <p>
          对于不喜欢数学的同学而言，估计每个概率分布都是一个恶魔，那在概率统计学中，均匀分布应该算得上是潘多拉魔盒，几乎所有重要的概率分布都可以从均匀分布$Uniform(0,1)$中生成出来;尤其是在统计模拟中，所有统计分布的随机样本都是通过均匀分布产生的。
         </p>
         <p style="text-align: center;">
          <a href="http://cos.name/2013/01/lda-math-%e7%a5%9e%e5%a5%87%e7%9a%84gamma%e5%87%bd%e6%95%b0/pandora/" rel="attachment wp-att-6944">
           <img src="http://cos.name/wp-content/uploads/2013/01/pandora.jpg"/>
          </a>
          潘多拉魔盒Uniform(0,1)
         </p>
         <p>
          <!--more-->
          对于上面的游戏而言 $n=10,k=7$, 如果我们能求出 $X_{(7)}$ 的分布的概率密度，那么用概率密度的极值点去做猜测就是最好的策略。对于一般的情形，$X_{(k)}$ 的分布是什么呢？那我们尝试计算一下$X_{(k)}$ 落在一个区间 $[x, x+\Delta x]$ 的概率，也就是求如下概率值
          <br/>
          $$ P( x \le X_{(k)} \le x+\Delta x) = ? $$
         </p>
         <p>
          把 [0,1] 区间分成三段 $[0,x), [x,x+\Delta x], (x+\Delta x,1]$,我们先考虑简单的情形，假设$n$ 个数中只有一个落在了区间 $[x, x+\Delta x]$内，则因为这个区间内的数$X_{(k)}$是第$k$大的，则$[0,x)$中应该有 $k-1$ 个数，$(x,1]$ 这个区间中应该有$n-k$ 个数。不失一般性，我们先考虑如下一个符合上述要求的事件$E$
         </p>
         <p>
          \begin{align*}
          <br/>
          E = \{ &amp; X_1 \in [x, x+\Delta x], \\
          <br/>
          &amp; X_i \in [0,x)\quad (i=2,\cdots,k), \\
          <br/>
          &amp; X_j \in (x+\Delta x,1] \quad (j=k+1,\cdots,n)\}
          <br/>
          \end{align*}
         </p>
         <p style="text-align: center;">
          <strong>
           <a href="http://cos.name/2013/01/lda-math-%e7%a5%9e%e5%a5%87%e7%9a%84gamma%e5%87%bd%e6%95%b0/beta-game-1/" rel="attachment wp-att-6922">
            <img src="http://cos.name/wp-content/uploads/2013/01/beta-game-1.png"/>
           </a>
          </strong>
         </p>
         <p style="text-align: center;">
          <strong>
           事
          </strong>
          <strong>
           件 $E$
          </strong>
         </p>
         <p>
          则有
          <br/>
          \begin{align*}
          <br/>
          P(E) &amp; = \prod_{i=1}^nP(X_i) \\
          <br/>
          &amp; = x^{k-1}(1-x-\Delta x)^{n-k}\Delta x \\
          <br/>
          &amp; = x^{k-1}(1-x)^{n-k}\Delta x + o(\Delta x)
          <br/>
          \end{align*}
         </p>
         <p>
          $o(\Delta x)$表示$\Delta x $的高阶无穷小。显然，由于不同的排列组合，即$n$个数中有一个落在 $[x, x+\Delta x]$区间的有$n$种取法，余下$n-1$个数中有$k-1$个落在$[0,x)$的有$\binom{n-1}{k-1}$种组合，所以和事件$E$等价的事件一共有 $n\binom{n-1}{k-1}$个。
         </p>
         <p>
          继续考虑稍微复杂一点情形，假设$n$ 个数中有两个数落在了区间 $[x, x+\Delta x]$，
         </p>
         <p>
          \begin{align*}
          <br/>
          E’ = \{ &amp; X_1,X_2\in [x, x+\Delta x], \\
          <br/>
          &amp; X_i \in [0,x) \quad (i=3,\cdots,k), \\
          <br/>
          &amp; X_j \in (x+\Delta x,1] \quad (j=k+1,\cdots,n)\}
          <br/>
          \end{align*}
         </p>
         <p style="text-align: center;">
          <strong>
           <a href="http://cos.name/2013/01/lda-math-%e7%a5%9e%e5%a5%87%e7%9a%84gamma%e5%87%bd%e6%95%b0/beta-game-2/" rel="attachment wp-att-6923">
            <img src="http://cos.name/wp-content/uploads/2013/01/beta-game-2.png"/>
           </a>
          </strong>
         </p>
         <p style="text-align: center;">
          <strong>
           事件E’
          </strong>
         </p>
         <p>
          则有
          <br/>
          $$ P(E’) = x^{k-2}(1-x-\Delta x)^{n-k}(\Delta x)^2 = o(\Delta x)$$
          <br/>
          从以上分析我们很容易看出，只要落在$[x, x+\Delta x]$内的数字超过一个，则对应的事件的概率就是 $o(\Delta x)$。于是
          <br/>
          \begin{align*}
          <br/>
          &amp; P( x \le X_{(k)} \le x+\Delta x) \\
          <br/>
          &amp; = n\binom{n-1}{k-1}P(E) + o(\Delta x) \\
          <br/>
          &amp; = n\binom{n-1}{k-1}x^{k-1}(1-x)^{n-k}\Delta x + o(\Delta x)
          <br/>
          \end{align*}
          <br/>
          所以，可以得到$X_{(k)}$的概率密度函数为
          <br/>
          \begin{align*}
          <br/>
          f(x) &amp; = \lim_{\Delta x \rightarrow 0} \frac{P( x \le X_{(k)} \le x+\Delta x)}{\Delta x} \\
          <br/>
          &amp; = n\binom{n-1}{k-1}x^{k-1}(1-x)^{n-k} \\
          <br/>
          &amp; = \frac{n!}{(k-1)!(n-k)!}x^{k-1}(1-x)^{n-k} \quad x \in [0,1]
          <br/>
          \end{align*}
          <br/>
          利用Gamma 函数，我们可以把 $f(x)$ 表达为
          <br/>
          $$ f(x) = \frac{\Gamma(n+1)}{\Gamma(k)\Gamma(n-k+1)}x^{k-1}(1-x)^{n-k} $$
         </p>
         <p>
          还记得神奇的 Gamma 函数可以把很多数学概念从整数集合延拓到实数集合吧。我们在上式中取$\alpha=k, \beta=n-k+1$, 于是我们得到
          <br/>
          \begin{equation}
          <br/>
          f(x) = \frac{\Gamma(\alpha+\beta)}{\Gamma(\alpha)\Gamma(\beta)}x^{\alpha-1}(1-x)^{\beta-1}
          <br/>
          \end{equation}
          <br/>
          这个就是一般意义上的 Beta 分布！可以证明，在$\alpha,\beta$取非负实数的时候，这个概率密度函数也都是良定义的。
         </p>
         <p>
          好，我们回到魔鬼的游戏，这$n=10,k=7$这个具体的实例中，我们按照如下密度分布的峰值去猜测才是最有把握的。
          <br/>
          $$ f(x) = \frac{10!}{(6)!(3)!}x^{6}(1-x)^{3} \quad x \in [0,1] $$
         </p>
         <p>
          然而即便如此，我们能做到一次猜中的概率也不高，很不幸，你第一次没有猜中，魔鬼微笑着说：“我再仁慈一点，再给你一个机会，你按5下这个机器，你就得到了5个[0,1]之间的随机数，然后我可以告诉你这5个数中的每一个和我的第7大的数相比，谁大谁小，然后你继续猜我手头的第7大的数是多少。”这时候我们应该怎么猜测呢？
         </p>
         <p>
          <strong>
           2.2 Beta-Binomial 共轭
          </strong>
         </p>
         <p>
          魔鬼的第二个题目，数学上形式化一下，就是
         </p>
         <ol>
          <li>
           $X_1,X_2,\cdots,X_n {\stackrel{\mathrm{iid}}{\sim}}Uniform(0,1)$，对应的顺序统计量是 $X_{(1)},X_{(2)}，\cdots, X_{(n)}$, 我们要猜测 $p=X_{(k)}$；
          </li>
          <li>
           $Y_1,Y_2,\cdots,Y_m {\stackrel{\mathrm{iid}}{\sim}}Uniform(0,1)$, $Y_i$中有$m_1$个比$p$小，$m_2$个比$p$大；
          </li>
          <li>
           问 $P(p|Y_1,Y_2,\cdots,Y_m)$ 的分布是什么。
          </li>
         </ol>
         <p>
          由于$p=X_{(k)}$在 $X_1,X_2,\cdots,X_n $中是第$k$大的，利用$Y_i$的信息，我们容易推理得到 $p=X_{(k)}$ 在$X_1,X_2,\cdots,X_n,Y_1,Y_2,\cdots,Y_m {\stackrel{\mathrm{iid}}{\sim}} Uniform(0,1)$ 这$(m+n)$个独立随机变量中是第 $k+m_1$大的，于是按照上一个小节的推理，此时$p=X_{(k)}$ 的概率密度函数是 $Beta(p|k+m_1,n-k+1+m_2)$。按照贝叶斯推理的逻辑，我们把以上过程整理如下：
         </p>
         <ol>
          <li>
           $p=X_{(k)}$是我们要猜测的参数，我们推导出 $p$ 的分布为 $f(p) = Beta(p|k,n-k+1)$,称为 $p$ 的先验分布；
          </li>
          <li>
           数据$Y_i$中有$m_1$个比$p$小，$m_2$个比$p$大，$Y_i$相当于是做了$m$次贝努利实验，所以$m_1$ 服从二项分布 $B(m,p)$；
          </li>
          <li>
           在给定了来自数据提供的$(m_1,m_2)$的知识后，$p$ 的后验分布变为 $f(p|m_1,m_2)=Beta(p|k+m_1,n-k+1+m_2)$
          </li>
         </ol>
         <p style="text-align: center;">
          <strong>
           <a href="http://cos.name/2013/01/lda-math-%e7%a5%9e%e5%a5%87%e7%9a%84gamma%e5%87%bd%e6%95%b0/coin-toss/" rel="attachment wp-att-6924">
            <img src="http://cos.name/wp-content/uploads/2013/01/coin-toss.jpg"/>
           </a>
           贝努利实验
          </strong>
         </p>
         <p>
          我们知道贝叶斯参数估计的基本过程是
         </p>
         <p style="text-align: center;">
          <strong>
           先验分布 + 数据的知识 = 后验分布
          </strong>
         </p>
         <p>
          以上贝叶斯分析过程的简单直观的表述就是
          <br/>
          $$ Beta(p|k,n-k+1) + Count(m_1,m_2) = Beta(p|k+m_1,n-k+1+m_2) $$
          <br/>
          其中 $(m_1,m_2)$ 对应的是二项分布$B(m_1+m_2,p)$的计数。更一般的，对于非负实数$\alpha,\beta$，我们有如下关系
          <br/>
          \begin{equation}
          <br/>
          Beta(p|\alpha,\beta) + Count(m_1,m_2) = Beta(p|\alpha+m_1,\beta+m_2)
          <br/>
          \end{equation}
          <br/>
          这个式子实际上描述的就是
          <strong>
           Beta-Binomial 共轭
          </strong>
          ，此处共轭的意思就是，数据符合二项分布的时候，参数的先验分布和后验分布都能保持Beta 分布的形式，这种形式不变的好处是，我们能够在先验分布中赋予参数很明确的物理意义，这个物理意义可以延续到后验分布中进行解释，同时从先验变换到后验过程中从数据中补充的知识也容易有物理解释。
         </p>
         <p>
          而我们从以上过程可以看到，Beta 分布中的参数$\alpha,\beta$都可以理解为物理计数，这两个参数经常被称为伪计数(pseudo-count)。基于以上逻辑，我们也可以把$Beta(p|\alpha,\beta)$写成下式来理解
          <br/>
          $$ Beta(p|1,1) + Count(\alpha-1,\beta-1) = Beta(p|\alpha,\beta)  \quad  (***)  $$
          <br/>
          其中 $Beta(p|1,1)$ 恰好就是均匀分布Uniform(0,1)。
         </p>
         <p>
          对于(***) 式，我们其实也可以纯粹从贝叶斯的角度来进行推导和理解。 假设有一个不均匀的硬币抛出正面的概率为$p$,抛$m$次后出现正面和反面的次数分别是$m_1,m_2$，那么按传统的频率学派观点，$p$的估计值应该为 $\hat{p}=\frac{m_1}{m}$。而从贝叶斯学派的观点来看，开始对硬币不均匀性一无所知，所以应该假设$p\sim Uniform(0,1)$, 于是有了二项分布的计数$(m_1,m_2)$之后，按照贝叶斯公式如下计算$p$ 的后验分布
          <br/>
          \begin{align*}
          <br/>
          P(p|m_1,m_2) &amp; = \frac{P(p)\cdot P(m_1,m_2|p)}{P(m_1,m_2)} \\
          <br/>
          &amp; = \frac{1\cdot P(m_1,m_2|p)}{\int_0^1 P(m_1,m_2|t)dt} \\
          <br/>
          &amp; = \frac{\binom{m}{m_1}p^{m_1}(1-p)^{m_2}}{\int_0^1 \binom{m}{m_1}t^{m_1}(1-t)^{m_2}dt} \\
          <br/>
          &amp; = \frac{p^{m_1}(1-p)^{m_2}}{\int_0^1 t^{m_1}(1-t)^{m_2}dt}
          <br/>
          \end{align*}
          <br/>
          计算得到的后验分布正好是 $Beta(p|m_1+1,m_2+1)$。
         </p>
         <p style="text-align: center;">
          <a href="http://cos.name/2013/01/lda-math-%e7%a5%9e%e5%a5%87%e7%9a%84gamma%e5%87%bd%e6%95%b0/beta-distribution/" rel="attachment wp-att-6921">
           <img src="http://cos.name/wp-content/uploads/2013/01/beta-distribution.png"/>
          </a>
         </p>
         <p style="text-align: center;">
          <strong>
           百变星君Beta分布
          </strong>
         </p>
         <p>
          Beta 分布的概率密度我们把它画成图，会发现它是个百变星君，它可以是凹的、凸的、单调上升的、单调下降的；可以是曲线也可以是直线，而均匀分布也是特殊的Beta分布。由于Beta 分布能够拟合如此之多的形状，因此它在统计数据拟合中被广泛使用。
         </p>
         <p>
          在上一个小节中，我们从二项分布推导Gamma 分布的时候，使用了如下的等式
          <br/>
          \begin{equation}
          <br/>
          \label{binomial-beta2}
          <br/>
          P(C \le k) = \frac{n!}{k!(n-k-1)!} \int_p^1 t^k(1-t)^{n-k-1} dt, \quad C\sim B(n,p)
          <br/>
          \end{equation}
          <br/>
          现在大家可以看到，左边是二项分布的概率累积，右边实际上是$Beta(t|k+1,n-k)$ 分布的概率积分。这个式子在上一小节中并没有给出证明，下面我们利用和魔鬼的游戏类似的概率物理过程进行证明。
         </p>
         <p>
          我们可以如下构造二项分布，取随机变量 $X_1, X_2, \cdots, X_n {\stackrel{\mathrm{iid}}{\sim}}Uniform(0,1)$,一个成功的贝努利实验就是 $X_i&lt;p$,否则表示失败,于是成功的概率为$p$。$C$用于计数成功的次数，于是$C\sim B(n,p)$。
         </p>
         <p>
          <strong style="text-align: center;">
           <a href="http://cos.name/2013/01/lda-math-%e7%a5%9e%e5%a5%87%e7%9a%84gamma%e5%87%bd%e6%95%b0/beta-binomial/" rel="attachment wp-att-6920">
            <img src="http://cos.name/wp-content/uploads/2013/01/beta-binomial.png"/>
           </a>
          </strong>
         </p>
         <p style="text-align: center;">
          <strong>
           贝努利实验最多成功$k$次
          </strong>
         </p>
         <p>
          显然我们有如下式子成立
         </p>
         <p>
          $$ P(C \le k) = P(X_{(k+1)} &gt; p)$$
         </p>
         <p>
          此处$X_{(k+1)}$是顺序统计量，为第$k+1$大的数。等式左边表示贝努利实验成功次数最多$k$次，右边表示第 $k+1$ 大的数必然对应于失败的贝努利实验，从而失败次数最少是$n-k$次，所以左右两边是等价的。由于$X_{(k+1)} \sim Beta(t|k+1, n-k)$, 于是
          <br/>
          \begin{align*}
          <br/>
          P(C \le k) &amp; = P(X_{(k+1)} &gt; p) \\
          <br/>
          &amp;= \int_p^1 Beta(t|k+1, n-k)dt \\
          <br/>
          &amp;= \frac{n!}{k!(n-k-1)!} \int_p^1 t^k(1-t)^{n-k-1} dt
          <br/>
          \end{align*}
         </p>
         <p>
          最后我们再回到魔鬼的游戏，如果你按出的5个随机数字中，魔鬼告诉你有2个小于它手中第7大的数，那么你应该
          <br/>
          按照如下概率分布的峰值做猜测是最好的
          <br/>
          $$ Beta(x|9,7) = \frac{15!}{(8)!(6)!}x^{8}(1-x)^{6} \quad x \in [0,1] $$
         </p>
         <p>
          很幸运的，你这次猜中了，魔鬼开始甩赖了：这个游戏对你来说太简单了，我要加大点难度，我们重新来一次，我按魔盒20下生成20个随机数，你同时给我猜第7大和第13大的数是什么，这时候应该如何猜测呢？
         </p>
         <p>
          <strong>
           2.3 Dirichlet-Multinomial 共轭
          </strong>
         </p>
         <p>
          对于魔鬼变本加厉的新的游戏规则，数学形式化如下：
         </p>
         <ol>
          <li>
           $X_1,X_2,\cdots,X_n {\stackrel{\mathrm{iid}} {\sim}}Uniform(0,1)$，
          </li>
          <li>
           排序后对应的顺序统计量 $X_{(1)},X_{(2)}，\cdots, X_{(n)}$,
          </li>
          <li>
           问 $(X_{(k_1)}, X_{(k_1+k_2)})$的联合分布是什么；
          </li>
         </ol>
         <p style="text-align: center;">
          <strong>
           游戏3
          </strong>
         </p>
         <p>
          完全类似于第一个游戏的推导过程，我们可以进行如下的概率计算(为了数学公式的简洁对称，我们取$x_3$满足$x_1+x_2+x_3 = 1$,但只有$x_1,x_2$是变量)
         </p>
         <p>
          <a href="http://cos.name/2013/01/lda-math-%e7%a5%9e%e5%a5%87%e7%9a%84gamma%e5%87%bd%e6%95%b0/dirichlet-game/" rel="attachment wp-att-6928">
           <img src="http://cos.name/wp-content/uploads/2013/01/dirichlet-game.png"/>
          </a>
         </p>
         <p style="text-align: center;">
          $(X_{(k_1)}, X_{(k_1+k_2)})$
          <strong>
           的联合分布推导
          </strong>
         </p>
         <p>
          \begin{align*}
          <br/>
          &amp; P\Bigl(X_{(k_1)}\in(x_1,x_1+\Delta x),X_{(k_1+k_2)}\in(x_2,x_2+\Delta x)\Bigr) \\
          <br/>
          &amp; = n(n-1)\binom{n-2}{k_1-1,k_2-1}x_1^{k_1-1}x_2^{k_2-1}x_3^{n-k_1-k_2}(\Delta x)^2 \\
          <br/>
          &amp; = \frac{n!}{(k_1-1)!(k_2-1)!(n-k_1-k_2)!}x_1^{k_1-1}x_2^{k_2-1}x_3^{n-k_1-k_2}(\Delta x)^2
          <br/>
          \end{align*}
          <br/>
          于是我们得到 $(X_{(k_1)}, X_{(k_1+k_2)})$的联合分布是
          <br/>
          \begin{align*}
          <br/>
          f(x_1,x_2,x_3) &amp; = \frac{n!}{(k_1-1)!(k_2-1)!(n-k_1-k_2)!}x_1^{k_1-1}x_2^{k_2-1}x_3^{n-k_1-k_2} \\
          <br/>
          &amp; = \frac{\Gamma(n+1)}{\Gamma(k_1)\Gamma(k_2)\Gamma(n-k_1-k_2+1)}x_1^{k_1-1}x_2^{k_2-1}x_3^{n-k_1-k_2}
          <br/>
          \end{align*}
          <br/>
          熟悉 Dirichlet的同学一眼就可以看出，上面这个分布其实就是3维形式的 Dirichlet 分布$Dir(x_1,x_2,x_3|k_1,k_2,n-k_1-k_2+1)$。令 $\alpha_1=k_1,\alpha_2=k_2,\alpha_3=n-k_1-k_2+1$,于是分布密度可以写为
          <br/>
          \begin{equation}
          <br/>
          \displaystyle f(x_1,x_2,x_3) = \frac{\Gamma(\alpha_1 + \alpha_2 + \alpha_3)}
          <br/>
          {\Gamma(\alpha_1)\Gamma(\alpha_2)\Gamma(\alpha_3)}x_1^{\alpha_1-1}x_2^{\alpha_2-1}x_3^{\alpha_3-1}
          <br/>
          \end{equation}
         </p>
         <p>
          这个就是一般形式的3维 Dirichlet 分布，即便 $\overrightarrow{\alpha}=(\alpha_1,\alpha_2, \alpha_3)$ 延拓到非负实数集合，以上概率分布也是良定义的。
         </p>
         <p>
          从形式上我们也能看出，Dirichlet 分布是Beta 分布在高维度上的推广，他和Beta 分布一样也是一个百变星君，密度函数可以展现出多种形态。
         </p>
         <p style="text-align: center;">
          <strong>
           <a href="http://cos.name/2013/01/lda-math-%e7%a5%9e%e5%a5%87%e7%9a%84gamma%e5%87%bd%e6%95%b0/dirichlet-distribution/" rel="attachment wp-att-6927">
            <img src="http://cos.name/wp-content/uploads/2013/01/dirichlet-distribution.png"/>
           </a>
           不同 $\alpha$ 下的Dirichlet 分布
          </strong>
         </p>
         <p>
          类似于魔鬼的游戏2，我们也可以调整一下游戏3，从魔盒中生成$m$个随机数$Y_1,Y_2,\cdots,Y_m {\stackrel{\mathrm{iid}}{\sim}}Uniform(0,1)$ 并让魔鬼告诉我们$Y_i$和$(X_{(k_1)}, X_{(k_1+k_2)})$相比谁大谁小。于是有如下游戏4
         </p>
         <ol>
          <li>
           $X_1,X_2,\cdots,X_n {\stackrel{\mathrm{iid}}{\sim}}Uniform(0,1)$，排序后对应的顺序统计量 $X_{(1)},X_{(2)}，\cdots, X_{(n)}$
          </li>
          <li>
           令$p_1=X_{(k_1)}, p_2=X_{(k_1+k_2)},p_3 = 1-p_1-p_2$(加上$p_3$是为了数学表达简洁对称),我们要猜测 $\overrightarrow{p}=(p_1,p_2,p_3)$；
          </li>
          <li>
           $Y_1,Y_2,\cdots,Y_m {\stackrel{\mathrm{iid}}{\sim}}Uniform(0,1)$, $Y_i$中落到$[0,p_1),[p_1,p_2),[p_2,1]$ 三个区间的个数分别为 $m_1,m_2,m_3$，$m=m_1+m_2+m3$；
          </li>
          <li>
           问后验分布 $P(\overrightarrow{p}|Y_1,Y_2,\cdots,Y_m)$ 的分布是什么。
          </li>
         </ol>
         <p style="text-align: center;">
          <strong>
           游戏4
          </strong>
         </p>
         <p>
          为了方便，我们记
          <br/>
          $$ \overrightarrow{m}=(m_1,m_2,m_3),\quad \overrightarrow{k}=(k_1,k_2,n-k_1-k_2+1) $$
          <br/>
          由游戏中的信息，我们可以推理得到 $p_1, p_2$在$X_1,X_2,\cdots,X_n,$ $Y_1,Y_2,\cdots,Y_m$ ${\stackrel{\mathrm{iid}}{\sim}} Uniform(0,1)$这 $m+n$个数中分别成为了第 $k_1+m_1, k_2+m_2$大的数，于是后验分布 $P(\overrightarrow{p}|Y_1,Y_2,\cdots,Y_m)$ 应该是 $Dir(\overrightarrow{p}|k_1+m_1,k_1+m_2,n-k_1-k_2+1+m_3)$,即$Dir(\overrightarrow{p}|\overrightarrow{k}+\overrightarrow{m})$。按照贝叶斯推理的逻辑，我们同样可以把以上过程整理如下：
         </p>
         <ol>
          <li>
           我们要猜测参数 $\overrightarrow{p}=(p_1,p_2,p_3)$，其先验分布为$Dir(\overrightarrow{p}|\overrightarrow{k})$；
          </li>
          <li>
           数据$Y_i$落到$[0,p_1), [p_1,p_2),[p_2,1]$三个区间的个数分别为 $m_1,m_2,m_3$，所以$\overrightarrow{m}=(m_1,m_2,m_3)$ 服从多项分布$Mult(\overrightarrow{m}|\overrightarrow{p})$
          </li>
          <li>
           在给定了来自数据提供的知识$\overrightarrow{m}$后，$\overrightarrow{p}$ 的后验分布变为 $Dir(\overrightarrow{p}|\overrightarrow{k}+\overrightarrow{m})$
          </li>
         </ol>
         <p style="text-align: center;">
          <strong>
           贝叶斯推理过程
          </strong>
         </p>
         <p>
          以上贝叶斯分析过程的简单直观的表述就是
          <br/>
          $$ Dir(\overrightarrow{p}|\overrightarrow{k}) + MultCount(\overrightarrow{m}) = Dir(\overrightarrow{p}|\overrightarrow{k}+\overrightarrow{m}) $$
          <br/>
          令 $\overrightarrow{\alpha}=\overrightarrow{k}$,把$\overrightarrow{\alpha}$从整数集合延拓到实数集合，更一般的可以证明有如下关系
          <br/>
          \begin{equation}
          <br/>
          Dir(\overrightarrow{p}|\overrightarrow{\alpha}) + MultCount(\overrightarrow{m})
          <br/>
          = Dir(p|\overrightarrow{\alpha}+\overrightarrow{m})
          <br/>
          \end{equation}
          <br/>
          以上式子实际上描述的就是
          <strong>
           Dirichlet-Multinomial 共轭
          </strong>
          ，而我们从以上过程可以看到，Dirichlet 分布中的参数$\overrightarrow{\alpha}$都可以理解为物理计数。类似于 Beta 分布，我们也可以把 $Dir(\overrightarrow{p}|\overrightarrow{\alpha})$作如下分解
          <br/>
          $$ Dir(\overrightarrow{p}|\overrightarrow{1}) + MultCount(\overrightarrow{m}-\overrightarrow{1})
          <br/>
          = Dir(\overrightarrow{p}|\overrightarrow{\alpha}) $$
          <br/>
          此处$\overrightarrow{1}=(1,1,\cdots,1)$。自然，上式我们也可以类似地用纯粹贝叶斯的观点进行推导和解释。
         </p>
         <p>
          以上的游戏我们还可以往更高的维度上继续推，譬如猜测 $X_{(1)},X_{(2)}，\cdots, X_{(n)}$ 中的4、5、…等更多个数，于是就得到更高纬度的 Dirichlet 分布和 Dirichlet-Multinomial 共轭。一般形式的 Dirichlet 分布定义如下
          <br/>
          \begin{equation}
          <br/>
          \displaystyle Dir(\overrightarrow{p}|\overrightarrow{\alpha}) =
          <br/>
          \displaystyle \frac{\Gamma(\sum_{k=1}^K\alpha_k)}
          <br/>
          {\prod_{k=1}^K\Gamma(\alpha_k)} \prod_{k=1}^K p_k^{\alpha_k-1}
          <br/>
          \end{equation}
          <br/>
          对于给定的 $\overrightarrow{p}$和 $N$,多项分布定义为
          <br/>
          \begin{equation}
          <br/>
          \displaystyle Mult(\overrightarrow{n} |\overrightarrow{p},N) = \binom{N}{\overrightarrow{n}}\prod_{k=1}^K p_k^{n_k}
          <br/>
          \end{equation}
          <br/>
          而 $Mult(\overrightarrow{n} |\overrightarrow{p},N)$ 和 $Dir(\overrightarrow{p}|\overrightarrow{\alpha})$这两个分布是共轭关系。
         </p>
         <p>
          Beta-Binomail 共轭和 Dirichlet-Multinomail 共轭都可以用纯粹数学的方式进行证明，我们在这两个小节中通过一个游戏来解释这两个共轭关系，主要是想说明这个共轭关系是可以对应到很具体的概率物理过程的。
         </p>
         <p>
          <strong>
           2.4 Beta/Dirichlet 分布的一个性质
          </strong>
         </p>
         <p>
          如果 $p\sim Beta(t|\alpha,\beta)$, 则
          <br/>
          \begin{align*}
          <br/>
          E(p) &amp; = \int_0^1 t*Beta(t|\alpha,\beta)dt \\
          <br/>
          &amp; = \int_0^1 t* \frac{\Gamma(\alpha+\beta)}{\Gamma(\alpha)\Gamma(\beta)} t^{\alpha-1}(1-t)^{\beta-1}dt \\
          <br/>
          &amp; = \frac{\Gamma(\alpha+\beta)}{\Gamma(\alpha)\Gamma(\beta)} \int_0^1 t^{\alpha}(1-t)^{\beta-1}dt
          <br/>
          \end{align*}
          <br/>
          上式右边的积分对应到概率分布 $Beta(t|\alpha+1,\beta)$，对于这个分布，我们有
          <br/>
          $$
          <br/>
          \int_0^1 \frac{\Gamma(\alpha+\beta+1)}{\Gamma(\alpha+1)\Gamma(\beta)} t^{\alpha}(1-t)^{\beta-1}dt = 1
          <br/>
          $$
          <br/>
          把上式带入$E(p)$的计算式，得到
          <br/>
          \begin{align}
          <br/>
          E(p) &amp; = \frac{\Gamma(\alpha+\beta)}{\Gamma(\alpha)\Gamma(\beta)}
          <br/>
          \cdot \frac{\Gamma(\alpha+1)\Gamma(\beta)}{\Gamma(\alpha+\beta+1)} \notag \\
          <br/>
          &amp; = \frac{\Gamma(\alpha+\beta)}{\Gamma(\alpha+\beta+1)}\frac{\Gamma(\alpha+1)}{\Gamma(\alpha)} \notag \\
          <br/>
          &amp; = \frac{\alpha}{\alpha+\beta}
          <br/>
          \label{beta-mean}
          <br/>
          \end{align}
          <br/>
          这说明，对于Beta 分布的随机变量，其均值可以用$\frac{\alpha}{\alpha+\beta}$来估计。Dirichlet 分布也有类似的结论，如果$\overrightarrow{p} \sim Dir(\overrightarrow{t}|\overrightarrow{\alpha})$，同样可以证明
          <br/>
          \begin{equation}
          <br/>
          E(\overrightarrow{p}) = \Bigl(\frac{\alpha_1}{\sum_{i=1}^K\alpha_i},\frac{\alpha_2}{\sum_{i=1}^K\alpha_i},\cdots, \frac{\alpha_K}{\sum_{i=1}^K\alpha_i} \Bigr)
          <br/>
          \label{dir-mean}
          <br/>
          \end{equation}
          <br/>
          以上两个结论很重要，因为我们在后面的 LDA 数学推导中需要使用这个结论。
         </p>
         <div class="wumii-hook">
          <br/>
          <br/>
         </div>
        </div>
        <!-- .entry-content -->
        <footer class="entry-meta">
        </footer>
        <!-- .entry-meta -->
       </article>
       <!-- #post -->
       <nav class="navigation post-navigation" role="navigation">
        <h1 class="screen-reader-text">
         文章导航
        </h1>
        <div class="nav-links">
         <a href="http://cos.name/2013/01/lda-math-gamma-function/" rel="prev">
          <span class="meta-nav">
           ←
          </span>
          LDA-math-神奇的Gamma函数
         </a>
         <a href="http://cos.name/2013/01/lda-math-mcmc-and-gibbs-sampling/" rel="next">
          LDA-math-MCMC 和 Gibbs Sampling
          <span class="meta-nav">
           →
          </span>
         </a>
        </div>
        <!-- .nav-links -->
       </nav>
       <!-- .navigation -->
       <div class="comments-area" id="comments">
        <h2 class="comments-title">
         《
         <span>
          LDA-math-认识Beta/Dirichlet分布
         </span>
         》有49个想法
        </h2>
        <ol class="comment-list">
         <li class="comment even thread-even depth-1 parent" id="comment-3582">
          <article class="comment-body" id="div-comment-3582">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/497ea247993bf5d350c9aa7796c6eb81?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              <a class="url" href="http://www.zhizhihu.com" rel="external nofollow">
               丕子
              </a>
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-3582">
              <time datetime="2013-01-15T09:32:41+00:00">
               2013/01/15 09:32
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             什么时候直接放个PDF出来？
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给丕子" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=3582#respond" onclick='return addComment.moveForm( "div-comment-3582", "3582", "respond", "6953" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
          <ol class="children">
           <li class="comment byuser comment-author-rickjin bypostauthor odd alt depth-2" id="comment-3583">
            <article class="comment-body" id="div-comment-3583">
             <footer class="comment-meta">
              <div class="comment-author vcard">
               <img src="http://sdn.geekzu.org/avatar/a2ba84c14342b34f6c0d9f53f3c5639e?s=74&amp;d=monsterid&amp;r=g"/>
               <b class="fn">
                <a class="url" href="http://weibo.com/rickjin" rel="external nofollow">
                 rickjin
                </a>
               </b>
               <span class="says">
                说道：
               </span>
              </div>
              <!-- .comment-author -->
              <div class="comment-metadata">
               <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-3583">
                <time datetime="2013-01-15T10:05:46+00:00">
                 2013/01/15 10:05
                </time>
               </a>
              </div>
              <!-- .comment-metadata -->
             </footer>
             <!-- .comment-meta -->
             <div class="comment-content">
              <p>
               现在只写了一半， 等我写完了整个系列， 放出 pdf
              </p>
             </div>
             <!-- .comment-content -->
             <div class="reply">
              <a aria-label="回复给rickjin" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=3583#respond" onclick='return addComment.moveForm( "div-comment-3583", "3583", "respond", "6953" )' rel="nofollow">
               回复
              </a>
             </div>
            </article>
            <!-- .comment-body -->
           </li>
           <!-- #comment-## -->
          </ol>
          <!-- .children -->
         </li>
         <!-- #comment-## -->
         <li class="comment even thread-odd thread-alt depth-1 parent" id="comment-3588">
          <article class="comment-body" id="div-comment-3588">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/8fdb206b328ab47a74c1e143b347ec3d?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              李川宁
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-3588">
              <time datetime="2013-01-15T23:53:20+00:00">
               2013/01/15 23:53
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             排版好漂亮。。内容也很好玩，就是与gamma函数那一节相比没有那么直观了~~嘻嘻。。
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给李川宁" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=3588#respond" onclick='return addComment.moveForm( "div-comment-3588", "3588", "respond", "6953" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
          <ol class="children">
           <li class="comment byuser comment-author-rickjin bypostauthor odd alt depth-2" id="comment-3589">
            <article class="comment-body" id="div-comment-3589">
             <footer class="comment-meta">
              <div class="comment-author vcard">
               <img src="http://sdn.geekzu.org/avatar/a2ba84c14342b34f6c0d9f53f3c5639e?s=74&amp;d=monsterid&amp;r=g"/>
               <b class="fn">
                <a class="url" href="http://weibo.com/rickjin" rel="external nofollow">
                 rickjin
                </a>
               </b>
               <span class="says">
                说道：
               </span>
              </div>
              <!-- .comment-author -->
              <div class="comment-metadata">
               <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-3589">
                <time datetime="2013-01-16T09:35:47+00:00">
                 2013/01/16 09:35
                </time>
               </a>
              </div>
              <!-- .comment-metadata -->
             </footer>
             <!-- .comment-meta -->
             <div class="comment-content">
              <p>
               完全同意！ 其实写完这个小节， 我自己看了看也不满意， 写得太数学化了，直观逻辑凸显得不够。
               <br/>
               后续放出 pdf 版本之前， 我得好好修正一下这个小节。
              </p>
             </div>
             <!-- .comment-content -->
             <div class="reply">
              <a aria-label="回复给rickjin" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=3589#respond" onclick='return addComment.moveForm( "div-comment-3589", "3589", "respond", "6953" )' rel="nofollow">
               回复
              </a>
             </div>
            </article>
            <!-- .comment-body -->
           </li>
           <!-- #comment-## -->
          </ol>
          <!-- .children -->
         </li>
         <!-- #comment-## -->
         <li class="comment even thread-even depth-1" id="comment-3602">
          <article class="comment-body" id="div-comment-3602">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/b328cda43507f4afbda25416d5af3872?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              <a class="url" href="http://www.mathbeta.com/" rel="external nofollow">
               Allen
              </a>
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-3602">
              <time datetime="2013-01-19T13:45:30+00:00">
               2013/01/19 13:45
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             很详细，很高兴看到很有内容的概率统计方面的文章。
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给Allen" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=3602#respond" onclick='return addComment.moveForm( "div-comment-3602", "3602", "respond", "6953" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment odd alt thread-odd thread-alt depth-1" id="comment-3637">
          <article class="comment-body" id="div-comment-3637">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/92c961d5026c5c5d2aaddaa19ca1232e?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              ranio
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-3637">
              <time datetime="2013-01-24T13:36:49+00:00">
               2013/01/24 13:36
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             大赞  今天才发现这个blog  相见恨晚啊
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给ranio" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=3637#respond" onclick='return addComment.moveForm( "div-comment-3637", "3637", "respond", "6953" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment even thread-even depth-1" id="comment-3778">
          <article class="comment-body" id="div-comment-3778">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/964be6b253c06c646da47a175117804f?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              范小雨
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-3778">
              <time datetime="2013-03-05T13:25:38+00:00">
               2013/03/05 13:25
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             写的很好，下载了收藏。
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给范小雨" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=3778#respond" onclick='return addComment.moveForm( "div-comment-3778", "3778", "respond", "6953" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment odd alt thread-odd thread-alt depth-1" id="comment-3779">
          <article class="comment-body" id="div-comment-3779">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/964be6b253c06c646da47a175117804f?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              范小雨
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-3779">
              <time datetime="2013-03-05T13:27:13+00:00">
               2013/03/05 13:27
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             下载收藏。
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给范小雨" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=3779#respond" onclick='return addComment.moveForm( "div-comment-3779", "3779", "respond", "6953" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment even thread-even depth-1 parent" id="comment-3807">
          <article class="comment-body" id="div-comment-3807">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/faf54d24696de7183d2cb4b43581b063?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              aaa
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-3807">
              <time datetime="2013-03-12T21:34:08+00:00">
               2013/03/12 21:34
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             上面好几个式子的数好像是错了。贝塔的。
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给aaa" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=3807#respond" onclick='return addComment.moveForm( "div-comment-3807", "3807", "respond", "6953" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
          <ol class="children">
           <li class="comment byuser comment-author-rickjin bypostauthor odd alt depth-2 parent" id="comment-3844">
            <article class="comment-body" id="div-comment-3844">
             <footer class="comment-meta">
              <div class="comment-author vcard">
               <img src="http://sdn.geekzu.org/avatar/a2ba84c14342b34f6c0d9f53f3c5639e?s=74&amp;d=monsterid&amp;r=g"/>
               <b class="fn">
                <a class="url" href="http://weibo.com/rickjin" rel="external nofollow">
                 rickjin
                </a>
               </b>
               <span class="says">
                说道：
               </span>
              </div>
              <!-- .comment-author -->
              <div class="comment-metadata">
               <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-3844">
                <time datetime="2013-03-21T08:38:48+00:00">
                 2013/03/21 08:38
                </time>
               </a>
              </div>
              <!-- .comment-metadata -->
             </footer>
             <!-- .comment-meta -->
             <div class="comment-content">
              <p>
               还得麻烦您指出来具体是哪个地方写错了
              </p>
             </div>
             <!-- .comment-content -->
             <div class="reply">
              <a aria-label="回复给rickjin" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=3844#respond" onclick='return addComment.moveForm( "div-comment-3844", "3844", "respond", "6953" )' rel="nofollow">
               回复
              </a>
             </div>
            </article>
            <!-- .comment-body -->
            <ol class="children">
             <li class="comment even depth-3" id="comment-4061">
              <article class="comment-body" id="div-comment-4061">
               <footer class="comment-meta">
                <div class="comment-author vcard">
                 <img src="http://sdn.geekzu.org/avatar/faf54d24696de7183d2cb4b43581b063?s=74&amp;d=monsterid&amp;r=g"/>
                 <b class="fn">
                  aaa
                 </b>
                 <span class="says">
                  说道：
                 </span>
                </div>
                <!-- .comment-author -->
                <div class="comment-metadata">
                 <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-4061">
                  <time datetime="2013-04-20T06:35:33+00:00">
                   2013/04/20 06:35
                  </time>
                 </a>
                </div>
                <!-- .comment-metadata -->
               </footer>
               <!-- .comment-meta -->
               <div class="comment-content">
                <p>
                 又回来看了。我自己搞错了。佩服！
                </p>
               </div>
               <!-- .comment-content -->
              </article>
              <!-- .comment-body -->
             </li>
             <!-- #comment-## -->
            </ol>
            <!-- .children -->
           </li>
           <!-- #comment-## -->
          </ol>
          <!-- .children -->
         </li>
         <!-- #comment-## -->
         <li class="comment odd alt thread-odd thread-alt depth-1 parent" id="comment-3906">
          <article class="comment-body" id="div-comment-3906">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/a0ffb067d3946c9b7d578b87bb3e7067?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              yy
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-3906">
              <time datetime="2013-04-03T16:36:44+00:00">
               2013/04/03 16:36
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             写的真是太好啦~受益
             <br/>
             未来一大段时间会常来学习的~
             <br/>
             求pdf版~
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给yy" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=3906#respond" onclick='return addComment.moveForm( "div-comment-3906", "3906", "respond", "6953" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
          <ol class="children">
           <li class="comment byuser comment-author-rickjin bypostauthor even depth-2" id="comment-3908">
            <article class="comment-body" id="div-comment-3908">
             <footer class="comment-meta">
              <div class="comment-author vcard">
               <img src="http://sdn.geekzu.org/avatar/a2ba84c14342b34f6c0d9f53f3c5639e?s=74&amp;d=monsterid&amp;r=g"/>
               <b class="fn">
                <a class="url" href="http://weibo.com/rickjin" rel="external nofollow">
                 rickjin
                </a>
               </b>
               <span class="says">
                说道：
               </span>
              </div>
              <!-- .comment-author -->
              <div class="comment-metadata">
               <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-3908">
                <time datetime="2013-04-03T21:57:35+00:00">
                 2013/04/03 21:57
                </time>
               </a>
              </div>
              <!-- .comment-metadata -->
             </footer>
             <!-- .comment-meta -->
             <div class="comment-content">
              <p>
               pdf 下载地址：
               <a href="http://vdisk.weibo.com/s/q0sGh/1360334108?utm_source=weibolife" rel="nofollow">
                http://vdisk.weibo.com/s/q0sGh/1360334108?utm_source=weibolife
               </a>
              </p>
             </div>
             <!-- .comment-content -->
             <div class="reply">
              <a aria-label="回复给rickjin" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=3908#respond" onclick='return addComment.moveForm( "div-comment-3908", "3908", "respond", "6953" )' rel="nofollow">
               回复
              </a>
             </div>
            </article>
            <!-- .comment-body -->
           </li>
           <!-- #comment-## -->
          </ol>
          <!-- .children -->
         </li>
         <!-- #comment-## -->
         <li class="comment odd alt thread-even depth-1" id="comment-4017">
          <article class="comment-body" id="div-comment-4017">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/b8660a644d434d6a5637c7a86e209529?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              clisely
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-4017">
              <time datetime="2013-04-16T10:07:01+00:00">
               2013/04/16 10:07
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             写的太好了，鼎力支持啊，就是这段写的不怎么生动了
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给clisely" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=4017#respond" onclick='return addComment.moveForm( "div-comment-4017", "4017", "respond", "6953" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment even thread-odd thread-alt depth-1" id="comment-4062">
          <article class="comment-body" id="div-comment-4062">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/faf54d24696de7183d2cb4b43581b063?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              aaa
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-4062">
              <time datetime="2013-04-20T06:45:29+00:00">
               2013/04/20 06:45
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             pdf 16页最后一个公式，分母为啥有个6而不是7呢
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给aaa" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=4062#respond" onclick='return addComment.moveForm( "div-comment-4062", "4062", "respond", "6953" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment odd alt thread-even depth-1" id="comment-4323">
          <article class="comment-body" id="div-comment-4323">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/6acec4b95fd92bd7ada856461e3d3fc7?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              taylor
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-4323">
              <time datetime="2013-06-03T14:39:02+00:00">
               2013/06/03 14:39
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             写的太好了，支持
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给taylor" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=4323#respond" onclick='return addComment.moveForm( "div-comment-4323", "4323", "respond", "6953" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment even thread-odd thread-alt depth-1" id="comment-4491">
          <article class="comment-body" id="div-comment-4491">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/9c4e4a752dbba7c04cbfa3d31614eec2?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              wangsong
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-4491">
              <time datetime="2013-07-04T10:03:23+00:00">
               2013/07/04 10:03
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             分布取值的“有界性”似乎是Beta分布的一个显著特定。
             <br/>
             另sin(x)的分布符合bate(0.5,0.5).
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给wangsong" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=4491#respond" onclick='return addComment.moveForm( "div-comment-4491", "4491", "respond", "6953" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment odd alt thread-even depth-1" id="comment-4555">
          <article class="comment-body" id="div-comment-4555">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/e92f3061fb3470f0c8c1cd9369cfc67d?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              changedi
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-4555">
              <time datetime="2013-07-26T10:59:23+00:00">
               2013/07/26 10:59
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             写的太好了，喜欢这样的文字叙述，期待整个系列完稿
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给changedi" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=4555#respond" onclick='return addComment.moveForm( "div-comment-4555", "4555", "respond", "6953" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment even thread-odd thread-alt depth-1 parent" id="comment-4567">
          <article class="comment-body" id="div-comment-4567">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/80394c014b38e8197020d816a8f7fb60?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              phoenixbai
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-4567">
              <time datetime="2013-07-29T20:51:13+00:00">
               2013/07/29 20:51
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             Rick君，
             <br/>
             写得非常易于理解。您概率论功底好深！
             <br/>
             求pdf版，不知出来没？要收藏起来，多看几遍！呵呵
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给phoenixbai" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=4567#respond" onclick='return addComment.moveForm( "div-comment-4567", "4567", "respond", "6953" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
          <ol class="children">
           <li class="comment odd alt depth-2" id="comment-4568">
            <article class="comment-body" id="div-comment-4568">
             <footer class="comment-meta">
              <div class="comment-author vcard">
               <img src="http://sdn.geekzu.org/avatar/80394c014b38e8197020d816a8f7fb60?s=74&amp;d=monsterid&amp;r=g"/>
               <b class="fn">
                phoenixbai
               </b>
               <span class="says">
                说道：
               </span>
              </div>
              <!-- .comment-author -->
              <div class="comment-metadata">
               <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-4568">
                <time datetime="2013-07-29T20:52:54+00:00">
                 2013/07/29 20:52
                </time>
               </a>
              </div>
              <!-- .comment-metadata -->
             </footer>
             <!-- .comment-meta -->
             <div class="comment-content">
              <p>
               看到了，呵呵，竟然放在评伦里！
              </p>
             </div>
             <!-- .comment-content -->
             <div class="reply">
              <a aria-label="回复给phoenixbai" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=4568#respond" onclick='return addComment.moveForm( "div-comment-4568", "4568", "respond", "6953" )' rel="nofollow">
               回复
              </a>
             </div>
            </article>
            <!-- .comment-body -->
           </li>
           <!-- #comment-## -->
          </ol>
          <!-- .children -->
         </li>
         <!-- #comment-## -->
         <li class="comment even thread-even depth-1" id="comment-4576">
          <article class="comment-body" id="div-comment-4576">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/0198142855fa7d9d20fcc95f40c7381e?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              Jarod
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-4576">
              <time datetime="2013-07-31T16:28:28+00:00">
               2013/07/31 16:28
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             最近在系统的看LDA背后的数学知识，尤其是概率方面，深得博主文章的帮助。
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给Jarod" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=4576#respond" onclick='return addComment.moveForm( "div-comment-4576", "4576", "respond", "6953" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment odd alt thread-odd thread-alt depth-1" id="comment-4730">
          <article class="comment-body" id="div-comment-4730">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              <a class="url" href="http://weibo.com/1707507310" rel="external nofollow">
               无名小草abc
              </a>
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-4730">
              <time datetime="2013-08-27T23:56:36+00:00">
               2013/08/27 23:56
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             谢谢博主的文章，写的很好，向你学习！
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给无名小草abc" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=4730#respond" onclick='return addComment.moveForm( "div-comment-4730", "4730", "respond", "6953" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment even thread-even depth-1" id="comment-4820">
          <article class="comment-body" id="div-comment-4820">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/54e03bf87239e9f84e0e1d59cc111e03?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              毛可
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-4820">
              <time datetime="2013-09-09T20:00:22+00:00">
               2013/09/09 20:00
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             学习了
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给毛可" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=4820#respond" onclick='return addComment.moveForm( "div-comment-4820", "4820", "respond", "6953" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment odd alt thread-odd thread-alt depth-1" id="comment-4982">
          <article class="comment-body" id="div-comment-4982">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/01b299882c8c9df07b85d7a8cd87d70f?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              kklots
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-4982">
              <time datetime="2013-10-20T16:58:28+00:00">
               2013/10/20 16:58
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             从读者的角度来看，我觉得作者在推导beta分布时的方法还些不够完善，begin{align*}
             <br/>
             &amp; P( x le X_{(k)} le x+Delta x) \
             <br/>
             &amp; = nbinom{n-1}{k-1}P(E) + o(Delta x) \
             <br/>
             &amp; = nbinom{n-1}{k-1}x^{k-1}(1-x)^{n-k}Delta x + o(Delta x)
             <br/>
             end{align*}表示的是第k个随机变量落在x
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给kklots" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=4982#respond" onclick='return addComment.moveForm( "div-comment-4982", "4982", "respond", "6953" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment even thread-even depth-1 parent" id="comment-4983">
          <article class="comment-body" id="div-comment-4983">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/01b299882c8c9df07b85d7a8cd87d70f?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              kklots
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-4983">
              <time datetime="2013-10-20T17:18:22+00:00">
               2013/10/20 17:18
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             作者写的太好了，膜拜中。
             <br/>
             对作者推导beta分布的过程存在不同看法。
             <br/>
             p(x&lt;Xk&lt;x+delta x)表示的是第k个变量落在x到x+delta x范围的概率，没有考虑k个变量相互间的大小，作者通过求解这个概率的密度函数去拟合魔鬼游戏，忽略了第k大这个条件，貌似有些不合理，反倒是直接对p(E)求极限更合理，虽然最终结果都是一样的。
             <br/>
             纯属个人理解，不对地方还请指正。
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给kklots" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=4983#respond" onclick='return addComment.moveForm( "div-comment-4983", "4983", "respond", "6953" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
          <ol class="children">
           <li class="comment odd alt depth-2" id="comment-4988">
            <article class="comment-body" id="div-comment-4988">
             <footer class="comment-meta">
              <div class="comment-author vcard">
               <img src="http://sdn.geekzu.org/avatar/fd6964ed425d626628bd057abbe6a85b?s=74&amp;d=monsterid&amp;r=g"/>
               <b class="fn">
                <a class="url" href="http://yihui.name" rel="external nofollow">
                 谢益辉
                </a>
               </b>
               <span class="says">
                说道：
               </span>
              </div>
              <!-- .comment-author -->
              <div class="comment-metadata">
               <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-4988">
                <time datetime="2013-10-21T12:31:06+00:00">
                 2013/10/21 12:31
                </time>
               </a>
              </div>
              <!-- .comment-metadata -->
             </footer>
             <!-- .comment-meta -->
             <div class="comment-content">
              <p>
               作者说的是X(k)而不是Xk
              </p>
             </div>
             <!-- .comment-content -->
             <div class="reply">
              <a aria-label="回复给谢益辉" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=4988#respond" onclick='return addComment.moveForm( "div-comment-4988", "4988", "respond", "6953" )' rel="nofollow">
               回复
              </a>
             </div>
            </article>
            <!-- .comment-body -->
           </li>
           <!-- #comment-## -->
          </ol>
          <!-- .children -->
         </li>
         <!-- #comment-## -->
         <li class="comment even thread-odd thread-alt depth-1" id="comment-5004">
          <article class="comment-body" id="div-comment-5004">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/fd634d8e280247734f6d52d39a0b3b23?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              linglingti
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-5004">
              <time datetime="2013-10-29T14:02:32+00:00">
               2013/10/29 14:02
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             查找关于beta分布知识查到这里来了，看得不是很懂，但是觉得写得很棒。
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给linglingti" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=5004#respond" onclick='return addComment.moveForm( "div-comment-5004", "5004", "respond", "6953" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment odd alt thread-even depth-1" id="comment-5112">
          <article class="comment-body" id="div-comment-5112">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              <a class="url" href="http://t.qq.com/Elanafu" rel="external nofollow">
               傅颖
              </a>
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-5112">
              <time datetime="2013-11-22T11:12:43+00:00">
               2013/11/22 11:12
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             博主，我想问一下您有没有看到对ALPHA，BETA还有迭代次数的经验值评估的论文。现在写论文需要一个理论支撑，希望您可以帮忙一下。
             <br/>
             BETA=0.01; ALPHA=50/T; 还有迭代次数的一个经验范围。
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给傅颖" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=5112#respond" onclick='return addComment.moveForm( "div-comment-5112", "5112", "respond", "6953" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment even thread-odd thread-alt depth-1" id="comment-5119">
          <article class="comment-body" id="div-comment-5119">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/04383244dece479b92ddba167f86bf3f?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              Han
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-5119">
              <time datetime="2013-11-23T04:44:04+00:00">
               2013/11/23 04:44
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             Uniform之类的是不是在公式里面应该mbox{Uniform}?
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给Han" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=5119#respond" onclick='return addComment.moveForm( "div-comment-5119", "5119", "respond", "6953" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment odd alt thread-even depth-1 parent" id="comment-5195">
          <article class="comment-body" id="div-comment-5195">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/cfaa4e7334664f03a069e58ca31edb91?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              haier
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-5195">
              <time datetime="2013-12-25T00:08:07+00:00">
               2013/12/25 00:08
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             贝叶斯参数估计：先验分布 + 数据的知识 = 后验分布，这里为什么是加，不是乘？
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给haier" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=5195#respond" onclick='return addComment.moveForm( "div-comment-5195", "5195", "respond", "6953" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
          <ol class="children">
           <li class="comment byuser comment-author-yihui even depth-2" id="comment-5209">
            <article class="comment-body" id="div-comment-5209">
             <footer class="comment-meta">
              <div class="comment-author vcard">
               <img src="http://sdn.geekzu.org/avatar/1022d8e6ebc94e8f6bca9a86cebe312a?s=74&amp;d=monsterid&amp;r=g"/>
               <b class="fn">
                <a class="url" href="http://yihui.name" rel="external nofollow">
                 谢益辉
                </a>
               </b>
               <span class="says">
                说道：
               </span>
              </div>
              <!-- .comment-author -->
              <div class="comment-metadata">
               <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-5209">
                <time datetime="2013-12-30T05:18:42+00:00">
                 2013/12/30 05:18
                </time>
               </a>
              </div>
              <!-- .comment-metadata -->
             </footer>
             <!-- .comment-meta -->
             <div class="comment-content">
              <p>
               这位客官让我想起来我的高中同桌问物理老师，为什么动量是质量乘以速度而不是加。当然这两个问题不太一样，我同学需要补一点数学，你需要补一点语文。在板砖飞来之前我先撤了。
              </p>
             </div>
             <!-- .comment-content -->
             <div class="reply">
              <a aria-label="回复给谢益辉" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=5209#respond" onclick='return addComment.moveForm( "div-comment-5209", "5209", "respond", "6953" )' rel="nofollow">
               回复
              </a>
             </div>
            </article>
            <!-- .comment-body -->
           </li>
           <!-- #comment-## -->
          </ol>
          <!-- .children -->
         </li>
         <!-- #comment-## -->
         <li class="comment odd alt thread-odd thread-alt depth-1 parent" id="comment-5210">
          <article class="comment-body" id="div-comment-5210">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/cfaa4e7334664f03a069e58ca31edb91?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              haier
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-5210">
              <time datetime="2013-12-30T07:29:54+00:00">
               2013/12/30 07:29
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             Beta(p|k,n−k+1)+Count(m1,m2)=Beta(p|k+m1,n−k+1+m2)，这个公式中也是用的加，如果都是数学上的加应该用log吧，你的意思是这里有语文中的加也有数学上的加？
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给haier" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=5210#respond" onclick='return addComment.moveForm( "div-comment-5210", "5210", "respond", "6953" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
          <ol class="children">
           <li class="comment byuser comment-author-yihui even depth-2" id="comment-5227">
            <article class="comment-body" id="div-comment-5227">
             <footer class="comment-meta">
              <div class="comment-author vcard">
               <img src="http://sdn.geekzu.org/avatar/1022d8e6ebc94e8f6bca9a86cebe312a?s=74&amp;d=monsterid&amp;r=g"/>
               <b class="fn">
                <a class="url" href="http://yihui.name" rel="external nofollow">
                 谢益辉
                </a>
               </b>
               <span class="says">
                说道：
               </span>
              </div>
              <!-- .comment-author -->
              <div class="comment-metadata">
               <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-5227">
                <time datetime="2014-01-03T11:40:14+00:00">
                 2014/01/03 11:40
                </time>
               </a>
              </div>
              <!-- .comment-metadata -->
             </footer>
             <!-- .comment-meta -->
             <div class="comment-content">
              <p>
               纯粹是语文中的加，只是表达某项和某项综合起来得到某项。数学上毫无疑问当然是乘啦。
              </p>
             </div>
             <!-- .comment-content -->
             <div class="reply">
              <a aria-label="回复给谢益辉" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=5227#respond" onclick='return addComment.moveForm( "div-comment-5227", "5227", "respond", "6953" )' rel="nofollow">
               回复
              </a>
             </div>
            </article>
            <!-- .comment-body -->
           </li>
           <!-- #comment-## -->
          </ol>
          <!-- .children -->
         </li>
         <!-- #comment-## -->
         <li class="comment odd alt thread-even depth-1" id="comment-5400">
          <article class="comment-body" id="div-comment-5400">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              <a class="url" href="http://weibo.com/1997763905" rel="external nofollow">
               疯狂的拖鞋
              </a>
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-5400">
              <time datetime="2014-03-03T14:55:24+00:00">
               2014/03/03 14:55
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             “(x,1] 这个区间中应该有n−k 个数。”
             <br/>
             这里是不是应该
             <br/>
             “(x+Δx,1] 这个区间中应该有n−k 个数”呢？
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给疯狂的拖鞋" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=5400#respond" onclick='return addComment.moveForm( "div-comment-5400", "5400", "respond", "6953" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment even thread-odd thread-alt depth-1" id="comment-5427">
          <article class="comment-body" id="div-comment-5427">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/0cd5964bac77bfd6503c80b5f9de4a08?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              evan
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-5427">
              <time datetime="2014-03-11T13:03:36+00:00">
               2014/03/11 13:03
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             给定了10个数，顺序已经定了，为啥还和排列组合有关？给定N个数，第个K是那个数，只有一个选择，而不是N个选择，这里有点不懂
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给evan" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=5427#respond" onclick='return addComment.moveForm( "div-comment-5427", "5427", "respond", "6953" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment odd alt thread-even depth-1" id="comment-5750">
          <article class="comment-body" id="div-comment-5750">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              <a class="url" href="http://weibo.com/myaplysia" rel="external nofollow">
               i小雨生
              </a>
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-5750">
              <time datetime="2014-05-21T12:56:56+00:00">
               2014/05/21 12:56
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             期待完整版！
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给i小雨生" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=5750#respond" onclick='return addComment.moveForm( "div-comment-5750", "5750", "respond", "6953" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment even thread-odd thread-alt depth-1" id="comment-5807">
          <article class="comment-body" id="div-comment-5807">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              <a class="url" href="http://weibo.com/5158568022" rel="external nofollow">
               zhangzc_qd
              </a>
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-5807">
              <time datetime="2014-05-29T10:25:24+00:00">
               2014/05/29 10:25
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             写的很好， 语言简介， 以后有望成为大师阿， 顶
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给zhangzc_qd" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=5807#respond" onclick='return addComment.moveForm( "div-comment-5807", "5807", "respond", "6953" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment odd alt thread-even depth-1" id="comment-6044">
          <article class="comment-body" id="div-comment-6044">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              <a class="url" href="http://weibo.com/2468609650" rel="external nofollow">
               小博_厚积薄发
              </a>
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-6044">
              <time datetime="2014-07-17T12:03:27+00:00">
               2014/07/17 12:03
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             总结得很好！推荐推荐
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给小博_厚积薄发" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=6044#respond" onclick='return addComment.moveForm( "div-comment-6044", "6044", "respond", "6953" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment even thread-odd thread-alt depth-1" id="comment-6057">
          <article class="comment-body" id="div-comment-6057">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              <a class="url" href="http://weibo.com/ruochengHuang" rel="external nofollow">
               凤王的葬礼
              </a>
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-6057">
              <time datetime="2014-07-20T09:55:13+00:00">
               2014/07/20 09:55
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             您好，您写得真好，但是关于Dirichlet分布推导过程中的一个地方不是很懂：P(X(k1)∈(x1,x1+Δx),X(k1+k2)∈(x2,x2+Δx))是不是应该写成：P(X(k1)∈(x1,x1+Δx),X(k1+k2)∈(x1+Δx+x2,x1+Δx+x2+Δx))？
             <br/>
             目前感觉Dirichlet分布不是简单的高维序向量的分布……
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给凤王的葬礼" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=6057#respond" onclick='return addComment.moveForm( "div-comment-6057", "6057", "respond", "6953" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="pingback odd alt thread-even depth-1" id="comment-6353">
          <div class="comment-body">
           Pingback：
           <a class="url" href="http://www.xiaolzh.com/?p=137" rel="external nofollow">
            认识Beta/Dirichlet分布 | xiaolzh's blog
           </a>
          </div>
         </li>
         <!-- #comment-## -->
         <li class="comment even thread-odd thread-alt depth-1" id="comment-6546">
          <article class="comment-body" id="div-comment-6546">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              <a class="url" href="http://t.qq.com/doro1988" rel="external nofollow">
               戴颖龙
              </a>
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-6546">
              <time datetime="2015-01-22T21:44:20+00:00">
               2015/01/22 21:44
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             那是阶乘，不是gamma，gamma比阶乘多1，比如6！=gamma(7)。
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给戴颖龙" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=6546#respond" onclick='return addComment.moveForm( "div-comment-6546", "6546", "respond", "6953" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="pingback odd alt thread-even depth-1" id="comment-6590">
          <div class="comment-body">
           Pingback：
           <a class="url" href="http://cos.name/2015/02/lucky-money/" rel="external nofollow">
            QiuYixuan: 嘿，朋友，抢红包了吗？ | 统计之都 (中国统计学门户网站，免费统计学服务平台)
           </a>
          </div>
         </li>
         <!-- #comment-## -->
         <li class="pingback even thread-odd thread-alt depth-1" id="comment-6595">
          <div class="comment-body">
           Pingback：
           <a class="url" href="http://www.niubua.com/?p=1469" rel="external nofollow">
            嘿，朋友，抢红包了吗？ | 牛吧大数据
           </a>
          </div>
         </li>
         <!-- #comment-## -->
         <li class="pingback odd alt thread-even depth-1" id="comment-6598">
          <div class="comment-body">
           Pingback：
           <a class="url" href="http://miic.top/24172.html" rel="external nofollow">
            红包统计学：为何有些人盆钵满盈，有些人入不敷出？ - 科技 - 觅客MIIC
           </a>
          </div>
         </li>
         <!-- #comment-## -->
         <li class="pingback even thread-odd thread-alt depth-1" id="comment-6605">
          <div class="comment-body">
           Pingback：
           <a class="url" href="http://www.jokerenglish.cn/blog/post/%e7%ba%a2%e5%8c%85%e7%bb%9f%e8%ae%a1%e5%ad%a6%ef%bc%9a%e4%b8%ba%e4%bd%95%e6%9c%89%e4%ba%9b%e4%ba%ba%e7%9b%86%e9%92%b5%e6%bb%a1%e7%9b%88%ef%bc%8c%e6%9c%89%e4%ba%9b%" rel="external nofollow">
            红包统计学：为何有些人盆钵满盈，有些人入不敷出？ | DesktopVoc背单词软件
           </a>
          </div>
         </li>
         <!-- #comment-## -->
         <li class="comment odd alt thread-even depth-1" id="comment-6876">
          <article class="comment-body" id="div-comment-6876">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/b5e841241042313aff70dd2012d8882c?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              丁丁
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-6876">
              <time datetime="2015-09-25T15:27:41+00:00">
               2015/09/25 15:27
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             原來beta分佈是這樣來的….過程太精采了 謝謝作者!很用心!推薦!
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给丁丁" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=6876#respond" onclick='return addComment.moveForm( "div-comment-6876", "6876", "respond", "6953" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment even thread-odd thread-alt depth-1" id="comment-6888">
          <article class="comment-body" id="div-comment-6888">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/4e05ebe745bd92fb67c3dc26ae5ffaf6?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              wenchieh
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-6888">
              <time datetime="2015-10-06T15:36:43+00:00">
               2015/10/06 15:36
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             请问一下，魔鬼的第一个问题的结果里面 f(x) 按极大值求完之后为什么会大于1？ 多谢！
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给wenchieh" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=6888#respond" onclick='return addComment.moveForm( "div-comment-6888", "6888", "respond", "6953" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="comment odd alt thread-even depth-1" id="comment-6929">
          <article class="comment-body" id="div-comment-6929">
           <footer class="comment-meta">
            <div class="comment-author vcard">
             <img src="http://sdn.geekzu.org/avatar/5f14cd716beda9ad0cef992e3cdc2fb1?s=74&amp;d=monsterid&amp;r=g"/>
             <b class="fn">
              毛豆
             </b>
             <span class="says">
              说道：
             </span>
            </div>
            <!-- .comment-author -->
            <div class="comment-metadata">
             <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#comment-6929">
              <time datetime="2015-11-12T17:34:41+00:00">
               2015/11/12 17:34
              </time>
             </a>
            </div>
            <!-- .comment-metadata -->
           </footer>
           <!-- .comment-meta -->
           <div class="comment-content">
            <p>
             非常感谢！！但是我有点不太理解，就是百变星君Bate图像前面那一长串公式是如何推导出来的？为什么P（p）=1？还有分母是怎么化简的？O(∩_∩)O~
            </p>
           </div>
           <!-- .comment-content -->
           <div class="reply">
            <a aria-label="回复给毛豆" class="comment-reply-link" href="http://cos.name/2013/01/lda-math-beta-dirichlet/?replytocom=6929#respond" onclick='return addComment.moveForm( "div-comment-6929", "6929", "respond", "6953" )' rel="nofollow">
             回复
            </a>
           </div>
          </article>
          <!-- .comment-body -->
         </li>
         <!-- #comment-## -->
         <li class="pingback even thread-odd thread-alt depth-1" id="comment-6971">
          <div class="comment-body">
           Pingback：
           <a class="url" href="http://www.sweeterthandespair.com/red-packet-statistics/" rel="external nofollow">
            红包统计学 - Amber Heart
           </a>
          </div>
         </li>
         <!-- #comment-## -->
        </ol>
        <!-- .comment-list -->
        <div class="comment-respond" id="respond">
         <h3 class="comment-reply-title" id="reply-title">
          发表评论
          <small>
           <a href="http://cos.name/2013/01/lda-math-beta-dirichlet/#respond" id="cancel-comment-reply-link" rel="nofollow" style="display:none;">
            取消回复
           </a>
          </small>
         </h3>
         <form action="http://cos.name/wp-comments-post.php" class="comment-form" id="commentform" method="post" novalidate="">
          <p class="comment-notes">
           <span id="email-notes">
            电子邮件地址不会被公开。
           </span>
           必填项已用
           <span class="required">
            *
           </span>
           标注
          </p>
          <p class="comment-form-comment">
           <label for="comment">
            评论
           </label>
           <textarea aria-required="true" cols="45" id="comment" maxlength="65525" name="comment" required="required" rows="8">
           </textarea>
          </p>
          <p class="comment-form-author">
           <label for="author">
            姓名
            <span class="required">
             *
            </span>
           </label>
          </p>
          <p class="comment-form-email">
           <label for="email">
            电子邮件
            <span class="required">
             *
            </span>
           </label>
          </p>
          <p class="comment-form-url">
           <label for="url">
            站点
           </label>
          </p>
          <p class="form-submit">
          </p>
          <p style="display: none;">
          </p>
          <p style="display: none;">
          </p>
         </form>
        </div>
        <!-- #respond -->
       </div>
       <!-- #comments -->
      </div>
      <!-- #content -->
     </div>
     <!-- #primary -->
     <div class="sidebar-container" id="tertiary" role="complementary">
      <div class="sidebar-inner">
       <div class="widget-area">
        <aside class="widget widget_text" id="text-3">
         <h3 class="widget-title">
          关注统计之都
         </h3>
         <div class="textwidget">
          <ul>
           <li>
            新浪微博
            <a href="http://weibo.com/cosname">
             @统计之都
            </a>
           </li>
           <li>
            人人网
            <a href="http://renren.com/cosname">
             @统计之都
            </a>
           </li>
           <li>
            Twitter
            <a href="http://twitter.com/cos_name">
             @cos_name
            </a>
           </li>
          </ul>
         </div>
        </aside>
        <aside class="widget widget_text" id="text-6">
         <h3 class="widget-title">
          微信公众平台
         </h3>
         <div class="textwidget">
          <img src="http://cos.name/wp-content/uploads/2013/04/qrcode-8cm.jpg"/>
          <p style="font-size:12px;margin-left:15px">
           微信号 CapStat
          </p>
          <p>
           我们将第一时间向您推送主站和论坛的精彩内容，以及统计之都的线下活动、竞赛、培训和会议信息。
          </p>
         </div>
        </aside>
        <aside class="widget widget_text" id="text-8">
         <h3 class="widget-title">
          站内导航
         </h3>
         <div class="textwidget">
          <ul>
           <li class="page_item">
            <a href="http://cos.name/cn/">
             中文论坛
            </a>
           </li>
           <li class="page_item">
            <a href="http://cos.name/videos/">
             视频
            </a>
           </li>
           <li class="page_item">
            <a href="http://cos.name/salon/">
             统计沙龙
            </a>
           </li>
           <li class="page_item">
            <a href="http://cos.name/books/">
             图书出版
            </a>
           </li>
           <li class="page_item">
            <a href="http://cos.name/training/">
             教育培训
            </a>
           </li>
           <li class="page_item">
            <a href="http://cos.name/about/">
             关于我们
            </a>
           </li>
           <li class="page_item">
            <a href="http://cos.name/donate/">
             捐赠
            </a>
           </li>
           <li class="page_item">
            <a href="http://cos.name/chinar/">
             R语言会议
            </a>
           </li>
          </ul>
         </div>
        </aside>
        <aside class="widget widget_links" id="linkcat-2">
         <h3 class="widget-title">
          友情链接
         </h3>
         <ul class="xoxo blogroll">
          <li>
           <a href="http://stat.ruc.edu.cn" target="_blank" title="中国人民大学统计学院网站">
            中国人民大学统计学院
           </a>
          </li>
          <li>
           <a href="http://rucdmc.net">
            中国人民大学数据挖掘中心
           </a>
          </li>
          <li>
           <a href="http://birc.gsm.pku.edu.cn/" target="_blank">
            北京大学商务智能研究中心
           </a>
          </li>
          <li>
           <a href="http://sam.cufe.edu.cn/" target="_blank" title="中央财经大学统计与数学学院网站">
            中央财经大学统计与数学学院
           </a>
          </li>
          <li>
           <a href="http://tjx.cueb.edu.cn/" target="_blank" title="首都经济贸易大学统计学院网站">
            首经贸统计学院
           </a>
          </li>
          <li>
           <a href="http://www.shookr.com/">
            数客网大数据社区
           </a>
          </li>
          <li>
           <a href="http://www.xueqing.tv/" target="_blank" title="数据科学在线学习平台">
            雪晴数据网
           </a>
          </li>
          <li>
           <a href="http://iera.name/" target="_blank" title="IERA是一个旨在普及、传播和增进工业工程知识的非营利性网站">
            IERA（直通IE）
           </a>
          </li>
         </ul>
        </aside>
        <aside class="widget widget_categories" id="categories-2">
         <h3 class="widget-title">
          全部分类
         </h3>
         <label class="screen-reader-text" for="cat">
          全部分类
         </label>
         <select class="postform" id="cat" name="cat">
          <option value="-1">
           选择分类目录
          </option>
          <option class="level-0" value="925">
           cos访谈  (4)
          </option>
          <option class="level-0" value="659">
           图书出版  (5)
          </option>
          <option class="level-0" value="379">
           数学方法  (14)
          </option>
          <option class="level-1" value="381">
           分析与代数  (1)
          </option>
          <option class="level-1" value="380">
           概率论  (9)
          </option>
          <option class="level-1" value="382">
           随机过程  (5)
          </option>
          <option class="level-0" value="210">
           数据分析  (81)
          </option>
          <option class="level-1" value="203">
           多元统计  (3)
          </option>
          <option class="level-1" value="42">
           数据挖掘与机器学习  (42)
          </option>
          <option class="level-1" value="36">
           生物与医学统计  (17)
          </option>
          <option class="level-1" value="35">
           计量经济学  (4)
          </option>
          <option class="level-1" value="296">
           金融统计  (3)
          </option>
          <option class="level-1" value="303">
           风险精算  (7)
          </option>
          <option class="level-0" value="177">
           模型专题  (15)
          </option>
          <option class="level-1" value="38">
           回归分析  (10)
          </option>
          <option class="level-1" value="41">
           时间序列  (2)
          </option>
          <option class="level-0" value="784">
           每周精选  (24)
          </option>
          <option class="level-1" value="183">
           可视化  (9)
          </option>
          <option class="level-0" value="967">
           沙龙纪要  (3)
          </option>
          <option class="level-0" value="18">
           经典理论  (46)
          </option>
          <option class="level-1" value="37">
           抽样调查  (3)
          </option>
          <option class="level-1" value="4">
           统计推断  (26)
          </option>
          <option class="level-1" value="236">
           试验设计  (7)
          </option>
          <option class="level-1" value="39">
           非参数统计  (3)
          </option>
          <option class="level-0" value="1">
           统计之都  (279)
          </option>
          <option class="level-1" value="884">
           中国R会议  (2)
          </option>
          <option class="level-1" value="885">
           中国R语言会议  (5)
          </option>
          <option class="level-1" value="446">
           出国留学  (3)
          </option>
          <option class="level-1" value="179">
           推荐文章  (90)
          </option>
          <option class="level-1" value="3">
           新闻通知  (75)
          </option>
          <option class="level-1" value="263">
           统计刊物  (10)
          </option>
          <option class="level-1" value="174">
           网站导读  (40)
          </option>
          <option class="level-1" value="204">
           职业事业  (51)
          </option>
          <option class="level-1" value="213">
           高校课堂  (9)
          </option>
          <option class="level-0" value="178">
           统计计算  (28)
          </option>
          <option class="level-1" value="40">
           优化与模拟  (15)
          </option>
          <option class="level-1" value="43">
           贝叶斯方法  (6)
          </option>
          <option class="level-0" value="378">
           软件应用  (116)
          </option>
          <option class="level-1" value="44">
           统计图形  (36)
          </option>
          <option class="level-1" value="110">
           统计软件  (83)
          </option>
         </select>
        </aside>
        <aside class="widget widget_recent_comments" id="recent-comments-2">
         <h3 class="widget-title">
          最新评论
         </h3>
         <ul id="recentcomments">
          <li class="recentcomments">
           <span class="comment-author-link">
            fineboom
           </span>
           发表在《
           <a href="http://cos.name/2016/06/use-shiny-fleetly-set-up-visual-prototype-system/#comment-7317">
            利用shiny包快速搭建可视化原型系统
           </a>
           》
          </li>
          <li class="recentcomments">
           <span class="comment-author-link">
            胡家新
           </span>
           发表在《
           <a href="http://cos.name/2016/06/r%e8%af%ad%e5%8d%83%e5%af%bb%e7%ac%ac%e4%b8%89%e6%9c%9f%ef%bc%9a%e5%bc%a0%e6%97%a0%e5%bf%8c%e7%a9%b6%e7%ab%9f%e7%88%b1%e8%b0%81%ef%bc%9f/#comment-7316">
            R语千寻第三期：张无忌究竟爱谁？
           </a>
           》
          </li>
          <li class="recentcomments">
           <span class="comment-author-link">
            <a class="url" href="http://www.zijiacha.com/category.php?id=6" rel="external nofollow">
             南糯山普洱茶
            </a>
           </span>
           发表在《
           <a href="http://cos.name/2016/06/r%e8%af%ad%e5%8d%83%e5%af%bb%e7%ac%ac%e4%b8%89%e6%9c%9f%ef%bc%9a%e5%bc%a0%e6%97%a0%e5%bf%8c%e7%a9%b6%e7%ab%9f%e7%88%b1%e8%b0%81%ef%bc%9f/#comment-7315">
            R语千寻第三期：张无忌究竟爱谁？
           </a>
           》
          </li>
          <li class="recentcomments">
           <span class="comment-author-link">
            J
           </span>
           发表在《
           <a href="http://cos.name/2016/05/value-of-the-reputation-from-the-data/#comment-7314">
            数据告诉你：高信誉的卖家应该收高价，还是收低价？
           </a>
           》
          </li>
          <li class="recentcomments">
           <span class="comment-author-link">
            <a class="url" href="http://gg" rel="external nofollow">
             Hilda
            </a>
           </span>
           发表在《
           <a href="http://cos.name/2013/01/drawing-map-in-r-era/#comment-7311">
            R时代，你要怎样画地图？
           </a>
           》
          </li>
         </ul>
        </aside>
        <aside class="widget widget_rss" id="rss-282869971">
         <h3 class="widget-title">
          <a class="rsswidget" href="http://cos.name/cn/topics/feed/">
           <img src="http://cos.name/wp-includes/images/rss.png"/>
          </a>
          <a class="rsswidget" href="http://cos.name/cn/topics/feed/">
           中文论坛新帖
          </a>
         </h3>
         <ul>
          <li>
           <a class="rsswidget" href="http://cos.name/cn/topic/417372/">
            处理时间数据和产生时间序列的问题
           </a>
          </li>
          <li>
           <a class="rsswidget" href="http://cos.name/cn/topic/6790/">
            《统计陷阱》下载 （How to lie with statistics）
           </a>
          </li>
          <li>
           <a class="rsswidget" href="http://cos.name/cn/topic/818/">
            统计学的世界（第五版）
           </a>
          </li>
          <li>
           <a class="rsswidget" href="http://cos.name/cn/topic/16574/">
            class(x) 返回值值是AsIs,AsIs代表什么，有什么用处？
           </a>
          </li>
          <li>
           <a class="rsswidget" href="http://cos.name/cn/topic/417366/">
            如何用R绘制一个分类算法的决策规则
           </a>
          </li>
         </ul>
        </aside>
        <aside class="widget widget_text" id="text-2">
         <h3 class="widget-title">
          登录/RSS
         </h3>
         <div class="textwidget">
          <ul>
           <li>
            <a href="http://cos.name/wp-admin/">
             登录
            </a>
           </li>
           <li>
            <a href="http://cos.name/feed/" title="使用 RSS 2.0 同步站点内容">
             文章
             <abbr title="Really Simple Syndication">
              RSS
             </abbr>
            </a>
           </li>
           <li>
            <a href="http://cos.name/comments/feed/" title="RSS 上的最近评论">
             评论
             <abbr title="Really Simple Syndication">
              RSS
             </abbr>
            </a>
           </li>
          </ul>
         </div>
        </aside>
       </div>
       <!-- .widget-area -->
      </div>
      <!-- .sidebar-inner -->
     </div>
     <!-- #tertiary -->
    </div>
    <!-- #main -->
    <footer class="site-footer" id="colophon" role="contentinfo">
     <div class="site-info">
      版权所有 © 2014 统计之都 | 由
      <a href="http://wordpress.org/">
       WordPress
      </a>
      构建 | 主题修改自
      <a href="http://wordpress.org/themes/twentythirteen">
       Twenty Thirteen
      </a>
     </div>
     <!-- .site-info -->
    </footer>
    <!-- #colophon -->
   </div>
   <!-- #page -->
   <p style="margin:0;padding:0;height:1px;overflow:hidden;">
    <a href="http://www.wumii.com/widget/relatedItems" style="border:0;">
     <img src="http://static.wumii.cn/images/pixel.png"/>
    </a>
   </p>
  </div>
 </body>
</html>